\section{子空间}
\begin{frame}{子空间的正交关系}
%我们来讨论欧氏空间中子空间的正交关系。
\begin{definition}
设 $V_{1}, V_{2}$ 是欧氏空间 $V$ 中两个子空间。 如果对于任意的 $\alpha \in V_{1},  \beta \in V_{2}$,恒有
\[
\pair{ \alpha,   \beta}=0,
\]
则称 $V_{1}, V_{2}$ 为\emph{正交的}，记为 $V_{1} \perp V_{2}$.
\pause
一个向量 $ \alpha$, 如果对于任意的 $ \beta \in V_{1}$, 恒有
\[
\pair{ \alpha,   \beta}=0,
\]
则称 \emph{$ \alpha$ 与子空间 $V_{1}$ 正交}，记为 $ \alpha \perp V_{1}$.
\end{definition}

\pause
因为只有零向量与它自身正交，所以由 $V_{1} \perp V_{2}$ 可知 $V_{1} \cap V_{2}=\{0\}$; 
由 $ \alpha \perp V_{1},  \alpha \in V_{1}$可知 $ \alpha=\symbf{0}$. 
\pause
更一般地，两两正交的子空间是线性无关的。

\begin{theorem}
如果子空间 $V_{1}, V_{2}, \cdots, V_{s}$ 两两正交，那么和 $V_{1}+V_{2}+\cdots+V_{s}$ 是直和。
\end{theorem}
\pause
\begin{proof}
  设 $\alpha_i\in V_i$ ($i=1,\cdots,s$)且
  $\alpha_1+\cdots+\alpha_s=0$.
  我们来证明$\alpha_i=0$. 
  事实上，用$\alpha_i$与等式两边做内积，利用正交性$(\alpha_i,\alpha_j)=0$ ($i\neq j$)可知
  $(\alpha_i,\alpha_i)=0$, 因此$\alpha_i=0$. 
  %分别取$V_1, \cdots, V_s$的一组正交基$\symbb{B} _i$. 这些$\symbb{B} _i$合并后得到的向量组
  %$\symbb{B} =(\symbb{B} _1,\cdots, \symbb{B} _s)$是正交的向量组，从而线性无关。
  %又显然$\symbb{B} $生成$V_1+\cdots+V_s$, 从而$\symbb{B} $是$V_1+\cdots+V_s$的基。
  这就证明了$\sum_{i=1}^s V_i$是直和。
\end{proof}
\end{frame}

\begin{frame}{正交补}
  \begin{definition}
    子空间 $V_{2}$ 称为子空间 $V_{1}$ 的一个\emph{正交补}， 如果 $V_{1} \perp V_{2}$, 并且 $V_{1}+V_{2}=V$.
\end{definition}
\pause
显然正交补的定义对$V_1, V_2$对称：如果 $V_{2}$ 是 $V_{1}$ 的正交补，那么 $V_{1}$ 也是 $V_{2}$ 的正交补。

\pause
\begin{theorem}
$n$ 维欧氏空间 $V$ 的每一个子空间 $V_{1}$ 都有唯一的正交补。
\end{theorem}
\pause
$V_{1}$ 的正交补记为 $V_{1}^{\perp}$. 由定义可知
$V=V_1\oplus V_1^{\perp}$, 特别地，
  $\dim V = \dim V_1 + \dim V_1^{\perp}.$
%\vspace*{-\baselineskip}
  \pause
\begin{proof}
  取$V_1$的标准正交基$\symbb{B} _1=(\varepsilon_1, \cdots, \varepsilon_r)$, 
  然后将其延拓为$V$的标准正交基$\symbb{B} =(\symbb{B} _1,  \symbb{B} _2)$, 
  其中$\symbb{B} _2=(\varepsilon_{r+1}, \cdots, \varepsilon_n)$. 
  \pause
  令$V_2=\Span \symbb{B} _2$.
  \pause
  易知$V_2$是$V_1$的正交补{\verify}。
  \pause
  正交补的存在性得证，再证唯一性。
  \pause
  我们断言若$V_2'$是$V_1$的正交补，
  那么$V_2=V_2'$.
  \pause
  对$\beta \in V_2'$, 我们有
  \[\tag{$*$}
      \beta
      \pause
      =\sum_{i=1}^n \pair{\beta,\varepsilon_i} \varepsilon_i
\pause
      =\sum_{i=r+1}^n \pair{\beta,\varepsilon_i} \varepsilon_i\in V_2. 
      \]
      \pause
      故$V_2'\subset V_2$.
\pause
      又$\dim V_2'=n-r=\dim V_2$, 我们有$V_2'=V_2$.
      \pause
      这就证明了正交补的唯一性。
  \end{proof}

  注意到上面的证明中要得到($*$)式，我们只用到$\beta$与$\varepsilon_1, \cdots, \varepsilon_r$正交，
  进而容易看出
\end{frame}

\begin{frame}

\begin{corollary*}
  $V_{1}{ }^{\perp}$ 恰由所有与 $V_{1}$ 正交的向量组成，即$V_1^{\perp}=\{\alpha\in V\mid \alpha\perp V_1\}$.
\end{corollary*}


\begin{proof}
  若$\alpha\perp V_1$, 可写出类似于上述定理的证明中类似于($*$)的公式从而得到$\alpha\in V_1^{\perp}$.
  因此$V_1^{\perp}\supset \{\alpha\in V\mid \alpha\perp V_1\}$. 
  反过来的包含是显然的，因此这两个集合相等。
\end{proof}

\pause
由分解式
$V=V_{1} \oplus V_{1}{ }^{\perp}$
可知， $V$ 中任一向量 $ \alpha$ 都可以唯一地分解成
\[
 \alpha= \alpha_{1}+ \alpha_{2},
\]
其中 $ \alpha_{1} \in V_{1},  \alpha_{2} \in V_{1}^{\perp}$. 
\pause
我们称 $ \alpha_{1}$ 为向量 $ \alpha$ 在子空间 $V_{1}$ 上的\emph{内射影} (inner projection)。
（从几何上解释下内射影。）

\pause
\begin{lemma}
若$\varepsilon_1, \cdots, \varepsilon_r$是$V_1$的一组标准正交基，那么$\alpha$在$V_1$上的内射影为
\(
  \sum_{i=1}^r \pair{\alpha, \varepsilon_i} \varepsilon_i.
\)
\end{lemma}

\begin{proof}
  将$V_1$的标准正交基 $\varepsilon_1, \cdots, \varepsilon_r$ 扩充为$V$的标准正交基
  $\varepsilon_1, \cdots, \varepsilon_r, \varepsilon_{r+1}, \cdots, \varepsilon_n$.
  此时，令
\(
      \alpha_1=\sum_{i=1}^r \pair{\alpha, \varepsilon_i} \varepsilon_i,
        \alpha_2=\sum_{i=r+1}^n \pair{\alpha, \varepsilon_i} \varepsilon_i.
      \)
    那么$\alpha_1\in V_1, \alpha_2\in V_1^{\perp}$且$\alpha=\alpha_1+\alpha_2$.
    因此$\alpha_1 = \sum_{i=1}^r \pair{\alpha, \varepsilon_i} \varepsilon_i$就是$\alpha$在
  $V_1$上的内射影。
\end{proof}
\end{frame}

\begin{frame}
这样，Gram-Schmidt正交化过程中，我们正交化化线性无关的一组向量$\varepsilon_1, \cdots, \varepsilon_m$时替换$\varepsilon_{m}$的是$\varepsilon_{m}-\hat{\varepsilon}_{m}$, 
其中
\[
  \hat{\varepsilon}_m=\sum_{j=1}^{m-1}\frac{\pair{\varepsilon_m, \xi_j}}{\pair{\xi_j, \xi_j}}\xi_j=\sum_{j=1}^{m-1}\pair{\varepsilon_m, \eta_j}\eta_j
\]
(用例~\ref{0E8}~前的记号) 正是 $\varepsilon_m$在$\Span(\varepsilon_1,\cdots,\varepsilon_{m-1})=\Span(\eta_1,\cdots,\eta_{m-1})$中的内射影。


同时，我们也知道了求内射影的一个方法。
\begin{example}
计算$\symbf{R}^3$中向量$\alpha=(1,2,3)$在向量$\alpha_1=(1,0,1), \alpha_2=(1,1,1)$生成的子空间$L(\alpha_1, \alpha_2)$的内射影。
将$\alpha_1, \alpha_2$执行Gram-Schmidt正交化过程 (可以只正交化) 可得$L(\alpha_1, \alpha_2)$的
一组正交基$(\eta_1, \eta_2)$:
\[
\beta_1=\alpha_1=(1,0,1), \quad
\beta_2=\alpha_2-\frac{\pair{\alpha_2,\beta_1}}{\pair{\beta_1,\beta_1}}\beta_1= (0,1,0);
\]
进而$\alpha$在$L(\alpha_1,\alpha_2)$中的内射影为
\[
  \frac{\pair{\alpha, \eta_1}}{\pair{\eta_1,\eta_1}} \eta_1+\frac{\pair{\alpha,\eta_2}}{\pair{\eta_2, \eta_2}} \eta_2=(2,2,2).
\]
\end{example}
  另外，在\S7中讲最小二乘法时我们将
看到求内射影的问题可以转化为求解线性方程组 (我不晓得就实际中的数值计算而言
哪个方法更好)。
\end{frame}

\begin{frame}{小结}
  \begin{enumerate}
    \item 何为向量与子空间正交？何为两个子空间正交？两两正交的子空间有何性质？
    \item 何为正交补？可如何描述？有何性质？
    \item 何为内射影？给定子空间的一组基，如何表示一个向量在该子空间的内射影？
  \end{enumerate}
\end{frame}

